Nằm trong vườn Luxembourg thuộc khu phố La Tinh, cung điện là công trình quan trọng nhất của vườn. Phía trước cung điện là một bãi cỏ rộng dành cho người đi dạo cùng một hồ nhỏ hình bát giác, nơi trẻ em vẫn thường thả thuyền đồ chơi.

Như mục đích xây dựng ban đầu, cung điện Luxembourg có dáng vẻ của một dinh thự hơn là một công sở. Luxembourg mang nét kiến trúc của cung điện Pháp, các tòa nhà tạo thành một sân vuông, một sân chính và lối vào bên dưới vòm Tournon. Tòa nhà chính có hai bên đối xứng, cũng là một kiến trúc thường gặp.

Điểm mới của cung điện Luxembourg là tòa nhà chính giữa lớn hơn so với hai cánh bên và cả phần phía bên trong. Khác với Louvre, vốn có tòa nhà hai cánh rất dài, tòa nhà chính của Luxembourg là điểm nhấn của cung điện.